Vào những năm 1830, người Cherokee ở Georgia và các nơi khác ở miền Nam bị buộc phải di dời đến Lãnh thổ người Da Đỏ (Oklahoma ngày nay) theo Đạo luật Loại bỏ người Da đỏ. Những người tiên phong và nông dân sau đó định cư trên mảnh đất mới bị bỏ trống, nằm dọc theo một con đường mòn Cherokee cũ kéo dài từ dãy núi Bắc Georgia đến sông Chattahoochee.[3] Được biết đến như là thị trấn của Milton kể từ tháng 7 năm 1858, sau khi điều lệ vào ngày 11 tháng 12 năm 1858 được thông qua, thành phố Alpharetta gồm các ranh giới mở rộng trong bán kính 0,5 dặm (0,80 km) từ tòa án thành phố. Nó được xem là một bộ phận của Quận Milton cho đến năm 1931, khi Quận Milton được sáp nhập với Quận Fulton để tránh phá sản trong thời kỳ Đại Suy thoái.

Tên của thành phố là một biến thể của tên một cô gái người Da đó hư cấu, Alfarata, trong một bài hát ở thế kỷ 19, "The Blue Juniata". Tên của thành phố cũng được cho là có nguồn gốc từ chữ cái đầu tiên của bảng chữ cái Hy Lạp.[4]